#Process Reward Model - AI Papers Daily

Legibility is Not Interpretability: Comparing Judged and Actual Importance in Chain-Of-Thought Reasoning

可读性不等同于可解释性：比较 CoT 推理中判断重要性与实际重要性

🧭 CoT 推理步骤重要性的可解释性评估

ETH Zürich · MIT · Cohere

实证表明 CoT 步骤文本只部分编码其功能重要性，LLM judge 与微调 critic 识别高优势步骤能力远低于噪声上限。

📌 工作参考价值（4 点）

在电商/Agent 场景中用 LLM 评判推理步骤或生成过程（如诊断错误、提供中间奖励）时，要警惕文本看起来合理但实际未必对应功能重要性：文本可读性不等于可解释性。
过程奖励模型（PRM）在正确响应上识别关键步骤能力有限，建议不要仅依赖 PRM 做细粒度信号，可结合蒙特卡洛 rollout 估计的 advantage 作为更可靠的地面真值。
如果需要训练步骤级 critic，注意其对错误样本提升明显，但对正确样本效果欠佳；可考虑将 critic 用于纠错或筛选而非全面解释。
在生成式推荐或 Agent 流水线中，对中间步骤做剪枝或加权时，基于文本判断的权重可能不可靠，需要验证“看起来关键”的步骤是否真的影响最终结果。

Reasoning | 2026-09-03 | cs.LG | score 7/10

被忽视的免费午餐：LLM Agent 的进展优势

🧭 Agent 过程评估 · 优势函数 ★ 深度解读

University of Wisconsin–Madison · Argonne National Laboratory

从 RL 后训练中直接提取策略与参考策略的对数概率比作为隐式过程奖励，无需训练专用奖励模型。

📌 工作参考价值（4 点）

零成本过程评估：直接使用 RL 微调后 checkpoint 与其参考 checkpoint（如 base 模型）的 log概率比作为每步动作的进展优势，可替代昂贵且难以泛化的过程奖励模型训练，适合电商场景下多轮对话、工具调用等 agent 轨迹的实时监控。
Best-of-N 采样提升成功率：在需要探索温度高、重试多次的任务（如对话式客服、复杂搜索流程）中，使用进展优势对候选轨迹评分并选择最佳轨迹，可显著提升任务完成率，实验在 τ2-Airline 等 agent 基准上超越专门训练的奖励模型。
Agent 轨迹不确定性量化：将轨迹级进展优势作为成功的预测信号，可在无额外训练下准确判断 agent 交互是否可能失败，用于风险控制或在线干预；实验在多个模型上 AUROC 达 0.865，优于置信度基线和预训练 PRM。
故障步骤定位：在多智体或工具调用链条中，通过最小化每步进展优势来定位导致失败的关键步骤，辅助线上问题诊断和信用分配，几乎达到专门训练方法的精度。

Agent | 2026-06-24 | cs.LG | score 8/10